Delhi High Court: ‘डीपफेक और AI समाज के लिए गंभीर खतरा, जो देख और सुन रहे हैं उस पर भरोसा नहीं किया जा सकता’ – दिल्ली हाईकोर्ट

Delhi High Court: दिल्ली हाईकोर्ट ने बुधवार को कहा कि डीपफेक तकनीक समाज के लिए एक गंभीर खतरा बनने जा रही है और सरकार को इस पर विचार करना शुरू कर देना चाहिए। इसके साथ ही कोर्ट ने कहा कि आर्टिफिशियल इंटेलिजेंस (AI) का उपाय केवल तकनीक ही हो सकता है। हाईकोर्ट दो याचिकाओं की सुनवाई कर रहा था, जिनमें डीपफेक तकनीक के संभावित दुरुपयोग और देश में इसके गैर-नियमन के खिलाफ शिकायत की गई थी। सुनवाई के दौरान हाईकोर्ट ने कहा कि चुनाव से पहले सरकार इस मुद्दे को लेकर चिंतित थी और अब परिस्थितियां बदल गई हैं।

क्या है डीपफेक तकनीक?

इस पर केंद्र की ओर से उपस्थित अतिरिक्त सॉलिसिटर जनरल चेतन शर्मा ने कहा कि “हो सकता है कि हमारा रुख बदल गया हो, लेकिन हम अभी भी उतने ही चिंतित हैं जितने तब थे।” केंद्र के वकील ने यह भी कहा कि अधिकारियों का मानना है कि यह एक ऐसी समस्या है जिसका समाधान किया जाना आवश्यक है। डीपफेक तकनीक के तहत, किसी व्यक्ति की तस्वीर को किसी अन्य व्यक्ति की तस्वीर से बदल दिया जाता है। इसके तहत, दर्शकों को गुमराह किया जा सकता है और मूल व्यक्ति के शब्दों और कार्यों को बदलकर गलत सूचना फैलाई जा सकती है।

कार्यवाहक मुख्य न्यायाधीश मनमोहन और न्यायमूर्ति तुषार राव गेडेला ने कहा, “आप (केंद्र सरकार) को इस पर काम करना शुरू करना होगा। आपको इस पर विचार करना होगा। डीपफेक समाज में एक गंभीर खतरा बनने जा रहा है।” न्यायमूर्ति मनमोहन ने कहा, “आप भी कुछ अध्ययन करें। यह कुछ ऐसा है कि आप जो देख रहे हैं और जो सुन रहे हैं, उस पर आप भरोसा नहीं कर सकते। यह कुछ ऐसा है जो चौंकाता है। जो मैंने अपनी आंखों से देखा और जो मैंने अपने कानों से सुना, मैं उस पर विश्वास नहीं करना चाहता, यह बहुत ही चौंकाने वाला है।”

रजत शर्मा द्वारा दायर याचिका में क्या कहा गया है?

देश में डीपफेक तकनीक के गैर-नियमन के खिलाफ याचिका इंडिया टीवी के अध्यक्ष और एडिटर-इन-चीफ रजत शर्मा ने दायर की है। याचिका में उन्होंने ऐसी सामग्री बनाने में मदद करने वाले एप्लिकेशन और सॉफ्टवेयर तक सार्वजनिक पहुंच को रोकने के निर्देश देने का अनुरोध किया है। डीपफेक और AI के अनियंत्रित उपयोग के खिलाफ दूसरी याचिका वकील चैतन्य रोहिल्ला ने दायर की है। शर्मा ने तर्क दिया, “हम AI-विरोधी तकनीक का उपयोग करके ऐसी स्थिति को समाप्त कर सकते हैं, अन्यथा इससे बहुत नुकसान हो सकता है। इन मुद्दों से निपटने के लिए चार चीजों की जरूरत है – पहचान, रोकथाम, शिकायत निवारण तंत्र और जागरूकता बढ़ाना। कोई भी कानून या सलाह बहुत प्रभावी नहीं होगी।”

जानें कोर्ट ने क्या कहा-

इस पर बेंच ने जवाब दिया कि AI के लिए समाधान केवल तकनीक ही होगी। बेंच ने कहा, “इस तकनीक से होने वाले नुकसान को समझें, क्योंकि आप सरकार हैं। एक संस्था के रूप में, हमारे कुछ सीमाएं होंगी।” डीपफेक से संबंधित वेबसाइटों की पहचान और उन्हें स्वचालित रूप से ‘ब्लॉक’ करने के बारे में, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने अपने जवाब में कहा कि उसके पास इंटरनेट पर किसी भी ऑनलाइन सामग्री की स्वचालित निगरानी करने का अधिकार नहीं है। इसने कहा कि इंटरनेट पर कोई भी सामग्री या वेबसाइट केवल स्थापित कानूनी प्रक्रिया के अनुसार ही अवरुद्ध की जा सकती है। कोर्ट ने याचिकाकर्ताओं को अपने सुझावों को शामिल करते हुए एक अतिरिक्त हलफनामा दाखिल करने के लिए दो सप्ताह का समय दिया। मामले की अगली सुनवाई 24 अक्टूबर को होगी।

सरकार से कोर्ट ने मांगा था जवाब

इससे पहले, हाईकोर्ट ने केंद्रीय सरकार से इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय के माध्यम से दोनों याचिकाओं पर अपना जवाब दाखिल करने के लिए कहा था। वरिष्ठ पत्रकार रजत शर्मा ने जनहित याचिका (PIL) में कहा है कि डीपफेक तकनीक का प्रसार समाज के विभिन्न पहलुओं के लिए एक गंभीर खतरा पैदा करता है। याचिका में कहा गया है कि यह सार्वजनिक संवाद और लोकतांत्रिक प्रक्रिया की अखंडता को कमजोर करता है। याचिका में कहा गया कि नवंबर 2023 में केंद्र ने डीपफेक और ऐसी सामग्री से निपटने के लिए नियम बनाने का इरादा व्यक्त किया था, लेकिन अब तक कुछ भी नहीं हुआ है।